Nvidia a récemment annoncé l'ajout de trois nouvelles fonctionnalités de sécurité à sa plateforme NeMo Guardrails, conçues pour aider les entreprises à mieux gérer et contrôler les robots conversationnels d'IA. Ces microservices ciblent spécifiquement les défis courants en matière de sécurité de l'IA et de modération de contenu, offrant une série de solutions pratiques. Parmi celles-ci, le service de sécurité du contenu (Content Safety) permet de vérifier le contenu avant que l'IA ne réponde aux utilisateurs, détectant ainsi les informations potentiellement dangereuses. Ce service contribue à prévenir les réponses inappropriées.

Les écoles publiques d'Hawaï ont récemment lancé un projet pilote d'intelligence artificielle dont les résultats ont non seulement impressionné, mais aussi profondément ému les dirigeants du secteur de l'éducation. Six équipes, composées de 80 élèves au total, provenant d'écoles primaires, intermédiaires et secondaires des différentes îles, ont reçu pour mission d'identifier les défis auxquels sont confrontés leurs camarades et de créer un programme d'intelligence artificielle ou un « robot conversationnel » pour aider à trouver des solutions. Ce projet a été créé en collaboration avec Ian Kitajima, président du Pacific International Center for High Technology Research. La Hawaiian Public Radio (HPR) a interviewé M. Kitajima pour en savoir plus.

Des recherches récentes montrent que les robots conversationnels IA les plus avancés du marché sont étonnamment sensibles à des techniques simples, voire facilement 'jailbreakables'. Selon un article de 404 Media, Anthropic, la société à l'origine du robot conversationnel Claude, a découvert que de simples fautes d'orthographe dans les invites pouvaient amener ces grands modèles de langage à ignorer leurs propres mesures de sécurité, générant ainsi du contenu qu'ils devraient normalement refuser. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney.

L'apprentissage en ligne est sur le point de connaître une révolution grâce à l'intelligence artificielle. Siya Raj Purohit, membre de l'équipe du marché de l'éducation chez OpenAI, a récemment révélé que l'entreprise explorait la possibilité de permettre aux enseignants de l'apprentissage en ligne de créer des 'GPT' personnalisés, ce qui pourrait bouleverser complètement les modèles d'enseignement en ligne. Purohit a déclaré que l'entreprise souhaitait que les professeurs puissent créer des technologies universelles personnalisées pour le grand public, afin de promouvoir l'apprentissage tout au long de la vie. Bien que ce projet ne soit pas encore mis en œuvre, il figure sur la feuille de route de l'entreprise. Actuellement, les professeurs ont commencé à utiliser les outils OpenAI existants, en téléchargeant des 'enseignements'

À l’heure où l’intelligence artificielle est de plus en plus répandue, de nombreux utilisateurs consultent des robots conversationnels IA comme ChatGPT et Google Gemini pour des questions médicales. Certains vont même jusqu’à télécharger des images médicales, telles que des radiographies, des IRM et des scanners TEP, sur la plateforme X (anciennement Twitter) pour qu’elles soient interprétées par l’assistant IA Grok. Cependant, cette pratique peut engendrer de graves risques pour la confidentialité et la sécurité des données. Bien que les données médicales bénéficient d’une protection particulière au niveau fédéral, le fait de contourner ces mécanismes de protection expose les utilisateurs aux dangers suivants : utilisation des données pour l’entraînement des modèles.

Les deux modèles d'IA Grok-2 et Grok-Mini ont brillé dans le classement des robots conversationnels LMSys. Grok-2 a surpassé GPT-4o pour atteindre la deuxième place, à égalité avec Gemini, grâce aux votes de plus de 6000 utilisateurs. Grok-2 a dominé les tâches mathématiques et a obtenu la deuxième place dans plusieurs autres tâches. Grok-2-Mini, quant à lui, a fait une entrée remarquée en se classant cinquième, démontrant de solides performances et une amélioration de la vitesse, deux fois plus rapide qu'auparavant. Cette amélioration est due au raisonnement.

Des robots conversationnels basés sur l'intelligence artificielle sont capables de réussir un examen de hacker éthique certifié, mais des chercheurs mettent en garde contre une dépendance exclusive à ces outils pour la cybersécurité. Cette étude, menée par Prasad Calyam de l'Université du Missouri et ses collaborateurs de l'Amrita Vishwa Vidyapeetham en Inde, a testé les principaux outils de génération d'IA : ChatGPT d'OpenAI et Bard (désormais Gemini) de Google.

La version GemPro de Google Bard a dépassé GPT-4 au classement LMSYS des robots conversationnels, marquant une avancée significative dans le domaine. Bard est désormais le deuxième robot conversationnel le mieux classé sur LMSYS, se rapprochant progressivement de GPT-4 Turbo, le leader actuel. Cette ascension est due à l'intégration du grand modèle multi-modal Gemini Pro de Google, faisant de Bard le deuxième modèle à dépasser les 1200 points au classement. LMSYS Org indique que l'ascension de Bard dans le classement...

Une nouvelle étude révèle que près de 10 % des utilisateurs utilisent abusivement les robots conversationnels IA pour des conversations à caractère sexuel. L'équipe de recherche a analysé 100 000 conversations avec des robots conversationnels et constaté qu'environ 10 % d'entre elles portaient sur des thèmes sexuels. Cette étude vise à mettre en lumière les interactions réelles des individus avec les robots conversationnels et à contribuer à une utilisation plus sûre de ces derniers dans le monde réel. Les chercheurs ont classé les thèmes d'abus en trois catégories : récits obscènes, fantasmes sexuels et jeux de rôle, ainsi que discussions sur des comportements préjudiciables.

Le modèle Claude AI d'Anthropic a surpassé GPT 3.5 dans des évaluations de performance, même sa version la moins performante affichant d'excellents résultats. Le modèle Claude présente un avantage dans le traitement des contextes volumineux et des longues invites, ce qui suscite un débat sur les applications des robots conversationnels IA. L'importance des modèles open source est mise en évidence dans cette compétition, Meta et son Llama2LongAI ayant également réalisé des progrès significatifs. Le succès de Claude pourrait influencer les choix des entreprises et des utilisateurs en matière de modèles IA.

Le physicien théoricien Michio Kaku estime que les robots conversationnels tels que ChatGPT d'OpenAI profiteront à la société et augmenteront la productivité. Kaku pense que l'humanité est actuellement dans la deuxième phase de l'évolution informatique, la prochaine étape technologique étant le domaine quantique. Le calcul quantique peut non seulement être appliqué au monde des affaires, mais aussi contribuer à faire progresser les soins de santé.